Plataformas meta mostraram centenas de anúncios deepfake "nudify", descobre CBS News

A Meta removeu uma série de anúncios que promoviam aplicativos de "nudificação" — ferramentas de IA usadas para criar deepfakes sexualmente explícitos usando imagens de pessoas reais — depois que uma investigação da CBS News encontrou centenas desses anúncios em suas plataformas.

"Temos regras rígidas contra imagens íntimas não consensuais; removemos esses anúncios, excluímos as páginas responsáveis ​​por veiculá-los e bloqueamos permanentemente os URLs associados a esses aplicativos", disse um porta-voz da Meta à CBS News em uma declaração por e-mail.

A CBS News descobriu dezenas desses anúncios na plataforma do Meta no Instagram, na seção "Stories", promovendo ferramentas de IA que, em muitos casos, anunciavam a possibilidade de "enviar uma foto" e "ver qualquer pessoa nua". Outros anúncios nos Stories do Instagram promoviam a possibilidade de enviar e manipular vídeos de pessoas reais. Um anúncio promocional chegou a dizer "como esse filtro é permitido?" como texto abaixo de um exemplo de deepfake de nudez .

Um anúncio promovia seu produto de IA usando imagens deepfake altamente sexualizadas, vestidas com roupas íntimas, das atrizes Scarlett Johansson e Anne Hathaway. Alguns dos links de URL dos anúncios redirecionavam para sites que promoviam a possibilidade de animar imagens de pessoas reais e induzi-las a praticar atos sexuais. E alguns dos aplicativos cobravam dos usuários entre US$ 20 e US$ 80 para acessar esses recursos "exclusivos" e "avançados". Em outros casos, a URL de um anúncio redirecionava os usuários para a loja de aplicativos da Apple, onde aplicativos de "nudificação" estavam disponíveis para download.

Uma análise dos anúncios na biblioteca de anúncios da Meta descobriu que havia, no mínimo, centenas desses anúncios disponíveis nas plataformas de mídia social da empresa, incluindo Facebook, Instagram, Threads, aplicativo Facebook Messenger e Meta Audience Network — uma plataforma que permite que os anunciantes da Meta alcancem usuários em aplicativos móveis e sites parceiros da empresa.

De acordo com dados da própria Biblioteca de Anúncios da Meta, muitos desses anúncios eram direcionados especificamente a homens entre 18 e 65 anos e estavam ativos nos Estados Unidos, União Europeia e Reino Unido.

Um porta-voz da Meta disse à CBS News que a disseminação desse tipo de conteúdo gerado por IA é um problema constante e que eles estão enfrentando desafios cada vez mais sofisticados para tentar combatê-lo.

"As pessoas por trás desses aplicativos exploratórios estão constantemente desenvolvendo táticas para evitar a detecção, por isso estamos trabalhando continuamente para fortalecer nossa fiscalização", disse um porta-voz da Meta.

A CBS News descobriu que anúncios de ferramentas de deepfake "nudify" ainda estavam disponíveis na plataforma Instagram da empresa, mesmo depois que a Meta removeu aqueles sinalizados inicialmente.

Deepfakes são imagens, gravações de áudio ou vídeos manipulados de pessoas reais que foram alterados com inteligência artificial para deturpar alguém dizendo ou fazendo algo que a pessoa realmente não disse ou fez.

No mês passado, o presidente Trump sancionou a lei bipartidária " Take It Down Act ", que, entre outras coisas, exige que sites e empresas de mídia social removam conteúdo deepfake dentro de 48 horas após a notificação da vítima.

Embora a lei torne ilegal "publicar intencionalmente" ou ameaçar publicar imagens íntimas sem o consentimento da pessoa, incluindo deepfakes criados por IA, ela não visa as ferramentas usadas para criar esse conteúdo gerado por IA.

Essas ferramentas violam as regras de segurança e moderação da plataforma implementadas pela Apple e pela Meta em suas respectivas plataformas.

A política de padrões de publicidade da Meta diz: "os anúncios não devem conter nudez adulta nem atividade sexual. Isso inclui nudez, representações de pessoas em posições explícitas ou sexualmente sugestivas, ou atividades sexualmente sugestivas".

De acordo com a política de "bullying e assédio" da Meta, a empresa também proíbe "photoshop ou desenhos sexualizados e depreciativos" em suas plataformas. A empresa afirma que seus regulamentos visam impedir que os usuários compartilhem ou ameacem compartilhar imagens íntimas não consensuais.

As diretrizes da Apple para sua loja de aplicativos afirmam explicitamente que "conteúdo ofensivo, insensível, perturbador, com intenção de causar repulsa, de gosto excepcionalmente ruim ou simplesmente assustador" é proibido.

Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Proteção do centro de pesquisa tecnológica da Universidade Cornell, estuda o aumento do marketing de redes deepfake de IA em plataformas sociais há mais de um ano. Ele disse à CBS News, em entrevista por telefone na terça-feira, que viu milhares desses anúncios em plataformas Meta, bem como em plataformas como X e Telegram, durante esse período.

Embora o Telegram e o X tenham o que ele descreveu como uma "ilegalidade" estrutural que permite esse tipo de conteúdo, ele acredita que a liderança do Meta não tem vontade de resolver o problema, apesar de ter moderadores de conteúdo.

"Acho que as equipes de confiança e segurança dessas empresas se importam. Francamente, não acho que elas se importem no topo da empresa no caso da Meta", disse ele. "Eles estão claramente com recursos insuficientes para as equipes que precisam combater esse tipo de coisa, porque, por mais sofisticadas que essas redes [deepfake] sejam... eles não têm dinheiro da Meta para investir nisso."

Mantzarlis também disse que descobriu em sua pesquisa que geradores de deepfake "nudify" estão disponíveis para download na App Store da Apple e na Play Store do Google, expressando frustração com a incapacidade dessas grandes plataformas de aplicar esse tipo de conteúdo.

"O problema com os aplicativos é que eles têm essa fachada de uso duplo: são apresentados na App Store como uma forma divertida de troca de rostos, mas, ao mesmo tempo, são divulgados no Meta como se seu objetivo principal fosse a nudez. Então, quando esses aplicativos são analisados ​​na Apple ou na Google Store, eles não têm necessariamente os meios para bani-los", disse ele.

"É preciso haver cooperação entre setores, onde se o aplicativo ou site se promover como uma ferramenta para nudificação em qualquer lugar da web, todos os outros poderão dizer: 'Tudo bem, não me importa como você se apresenta na minha plataforma, você está fora'", acrescentou Mantzarlis.

A CBS News entrou em contato com a Apple e o Google para obter comentários sobre como moderam suas respectivas plataformas. Nenhuma das empresas havia respondido até o momento da redação deste texto.

A promoção desses aplicativos por grandes empresas de tecnologia levanta sérias questões sobre o consentimento do usuário e a segurança online de menores. Uma análise da CBS News sobre um site de "nudify" promovido no Instagram mostrou que o site não solicitava nenhuma forma de verificação de idade antes que o usuário carregasse uma foto para gerar uma imagem deepfake.

Essas questões são generalizadas. Em dezembro, o programa 60 Minutes, da CBS News, noticiou a falta de verificação de idade em um dos sites mais populares que utiliza inteligência artificial para gerar fotos falsas de nus de pessoas reais.

Apesar de os visitantes serem informados de que devem ter 18 anos ou mais para usar o site, e que "o processamento de menores é impossível", o 60 Minutes conseguiu acesso imediato ao upload de fotos quando o usuário clicou em "aceitar" no aviso de idade, sem nenhuma outra verificação de idade necessária.

Os dados também mostram que uma alta porcentagem de adolescentes menores de idade já interagiu com conteúdo deepfake. Um estudo de março de 2025, conduzido pela organização sem fins lucrativos de proteção à criança Thorn, mostrou que, entre os adolescentes, 41% disseram ter ouvido falar do termo "nudez deepfake", enquanto 10% relataram conhecer pessoalmente alguém que teve imagens de nudez deepfake criadas dele.